Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

департаментом оценивал присутствие ИГИЛ в социальных сетях и ответные меры правительства США. Это была увлекательная работа, охватывающая как сетевой анализ (как распространяются сообщения), так и анализ бренда (что пытается изобразить ИГИЛ). Я часто вспоминал статью Адриана Чена о русских троллях - "Агентство", - которая не давала мне покоя. Если политические активисты и террористические организации придумали, как использовать эти системы для расширения своего влияния и власти, то наверняка это сделали и враждебные государства, такие как Россия и Китай. Если они запустили бот-аккаунты, кто их ищет? Наверняка они делают это более скрытно. Какова же была адекватная реакция? Противодействие террористам со стороны правительства США не казалось особенно эффективным, но было также неясно, как к решению этой проблемы отнесутся компании социальных сетей... и должны ли они самостоятельно принимать такие важные стратегические решения.

Исследователи социальных сетей, работавшие над проблемой ИГИЛ, уже в самом начале наметили путь, который мог бы предотвратить нежелательную цензуру инакомыслящих и одновременно ограничить охват воинствующих экстремистов: модерация должна быть прозрачной, чтобы общественность могла понять, почему пользователей отстраняют. Учитывая тенденцию к "возрождению" аккаунтов, когда платформы уделяют внимание другим проблемам, модерация должна быть последовательной. Необходимо было признать, что платформы не должны быть единственной инстанцией для решения проблемы; правительства должны сотрудничать, а также учитывать мнение активистов со всего мира. 37 И все же запросы на удаление аккаунтов от правительств также являются потенциальным источником беспокойства, и с ними следует обращаться очень осторожно. Эти ранние принципы были предложены как командами платформы, так и сторонними исследователями, но часто по отдельности и без обсуждения между ними.

Государственная машина пропаганды сотрудничает с мельницей слухов

Интернет, а затем и социальные медиа расширили возможности пропаганды с точки зрения того, кто мог ее производить, на каких каналах она появлялась и в каком стиле велась. Теперь, когда государственные акторы имели доступ как к вещательным, так и к социальным медиа, у них появились новые возможности: открытое вещание (т. е. белая пропаганда на телевидении) расширило свои каналы передачи сообщений до открытых социальных медиа (белая пропаганда на Facebook). Скрытые вещательные средства массовой информации также расширились до создания интернет-сайтов. Но новые возможности "скрытых социальных" изменили игру для государств, заинтересованных в манипулировании общественностью противника за пределами своих границ, вдохновив их на новые стратегии, полезные не только для убеждения и активации, но и для отвлечения и дезориентации. 38

Существует богатая история кампаний черной пропаганды, или дезинформации, в которых использовались подставные лица и подставные СМИ для убеждения или демотивации противников. Этот тип кампаний также развивался в зависимости от технологий того времени. Например, в 1941 году Уинстон Черчилль создал группу черной пропаганды для борьбы с Германией во главе с Денисом Делмером, который работал на BBC в качестве диктора на немецком языке. Они работали над созданием представлений о неудачных военных кампаниях и напряженности в немецком тылу (рассказывали о женах командированных солдат, спавших с нацистскими чиновниками), смешивая пропаганду с популярной музыкой и подходящими для обложки разглагольствованиями о злых британцах. Один из оперативников, работавший от имени британцев, немецкий эмигрант и писатель Петер Секельманн, взял на себя личину "Шефа" (Der Chef), недовольного, но преданного нацистского офицера, который выступал в ночных передачах, выражая возмущение ленивыми и скомпрометированными нацистскими военными лидерами, которые подвели Адольфа Гитлера - подвели дело. Der Chef использовал откровенный, графический язык для описания их двуличия; истории о сексуальном разврате и вопиющем поведении изобиловали, наряду с критикой врага (Черчилль, в данном случае, осуждался как "пьяный старый еврей, курящий сигары"). Делмер назвал это "пропагандой с помощью порнографии". Он знал, что, если стремиться к минимуму и создавать что-то сенсационное и шокирующее, это обеспечит внимание: "Я потратил огромное количество времени на эротику Шефа и посвятил многие часы терпеливых исследований поиску все новых и новых форм сексуального разврата, чтобы приписать их нашим жертвам в гитлеровской машине". 39 Шеф был одним персонажем из многих; другие персоны были немного более профессионально новостными. Хотя всегда было трудно измерить эффект пропагандистских кампаний, британские оценки на сайте указывали на "постоянно расширяющуюся аудиторию", а интервью с пленными подлодками показали, что немецкие военнослужащие слушали их. 40

За прошедшие восемьдесят лет человеческая природа во многом осталась неизменной: сенсации по-прежнему продаются, а алгоритмические стимулы делают их распространение все более легким. Однако уникальные возможности социальных сетей произвели революцию в кампаниях черной пропаганды и дезинформации, значительно упростив управление аккаунтами персон и подставными СМИ. 41 Стало легко одновременно скрывать свою личность и напрямую связываться с целями в социальных сетях с помощью рекламы, формирования аудитории и чатов один на один. Государственные акторы уже давно используют фальшивые личности в вещательных и печатных изданиях, когда выдуманные журналисты являются авторами или отмывают пропаганду от одного издания к другому. Однако государственным субъектам было крайне рискованно, дорого и сложно напрямую участвовать в одноранговых сетях общения (таких, как в Декатуре), которые более непосредственно влияют на групповое мнение; им пришлось бы искать способы стать частью сообщества, а потенциальный охват был слишком ограничен, чтобы оправдать усилия в большинстве случаев.

Некоторые правительства, в том числе правительства США, Китая и России, пытались добиться глубокого влияния в целевых сообществах с помощью тайных операций с участием агентов влияния: людей, имеющих связи в сообществе, на которое государство хотело бы нацелиться, и завербованных для тайного продвижения своих целей. 42 Иногда агентам влияния платят; часто они идеологически настроены. Как правило, они пользуются высоким авторитетом и обычно достаточно заметны, чтобы быть полезными для формирования общественного мнения - будь то артисты, ученые, журналисты или государственные чиновники. Другой стратегией тайных операций по оказанию влияния было проникновение в диссидентские группы или протестные движения, в том числе непосредственно через шпионов, но это был рискованный и длительный процесс. Одна ошибка могла подорвать всю опасную и чрезвычайно дорогостоящую операцию.

Но культурный сдвиг, вызванный появлением платформ социальных сетей, сделал легким и нормальным завязывание новых дружеских отношений только в сети и многочасовое общение, никогда не видя лица собеседника. Вступление в группы Facebook и серверы Discord для активистов и участие в каналах прямых сообщений с людьми, чьи настоящие имена мы можем даже не знать , - обычное поведение в сети. Есть старая поговорка из карикатуры New Yorker, изображающей собаку за клавиатурой, нарисованной в те времена, когда анонимные чат-группы только становились популярными: "В Интернете никто не знает, что ты собака". 43 Социальные сети сделали анонимные дружеские отношения нормальным явлением. С их помощью стало легко быть тем, кем ты хочешь быть. И это было бесплатно! Теперь пропагандист